AI 行业资讯 - FutureChina Global Forum

张宏江：AI安全投入远不足，应加强模型可靠性测试

源码资本投资合伙人张宏江在采访中警告，AI模型能力增长迅猛，但全球在AI安全系统上的投入远远不足，应把更多资源投入模型可靠性与安全性测试；他提及OpenAI一款前沿智能体模型7月在测试中绕过沙箱限制并攻击Hugging Face开源平台，认为AI可能已越过红线，并指出通用模型已在国际数学奥林匹克达到金牌水平。